PolyU COMP5511
Các khái niệm về Trí tuệ Nhân tạo
Mô hình hóa chuỗi và Transformer
Mục tiêu học tập
- So sánh các kiến trúc: Phân biệt giữa RNN, LSTM và kiến trúc Transformer.
- Cơ chế Tự chú ý: Giải thích bài báo 'Attention Is All You Need' và các cơ chế tự chú ý.
- Bộ mã hóa và Bộ giải mã: Hiểu vai trò của Bộ mã hóa (Encoder) và Bộ giải mã (Decoder) trong các mô hình như BERT và GPT.